Google спира способността на AI инструмента да създава изображения на хора след обратна реакция

Гугъл стопира способността на своя инструмент за изкуствен интелект Gemini да генерира изображения на хора, откакто беше неодобрен в обществените медии за основаване на исторически неточни изображения, които значително демонстрират цветнокожи вместо бели хора.

Смущаващият гаф демонстрира по какъв начин AI инструментите към момента се борят с концепцията за раса. Генераторът на изображения Dall-E на OpenAI, да вземем за пример, се нагрява за увековечаване на нездравословни расови и етнически стандарти в мащаб. Опитът на Гугъл да преодолее това обаче наподобява е дал противоположен резултат и е затруднил AI chatbot да генерира изображения на бели хора.

Gemini, сходно на други AI принадлежности като ChatGPT, се образова въз основата на голямо количество онлайн данни. Експертите от дълго време предизвестяват, че AI инструментите имат капацитета да възпроизвеждат расовите и половите пристрастия, вградени в тази информация.

Когато беше подканен от CNN в сряда да генерира изображение на папа, да вземем за пример, Джемини сътвори изображение на мъж и жена, нито един от които не беше бял. Техническият уебсайт The Verge също заяви, че инструментът основава изображения на цветнокожи хора в отговор на подкана за генериране на изображения на „ немски боец от 1943 година “.

„ Вече работим за справяне със скорошни проблеми с функционалността за генериране на изображения на Gemini “, сподели Гугъл в обява в X четвъртък. „ Докато вършим това, ще сложим на пауза генерирането на изображения на хора и скоро ще пуснем още веднъж усъвършенствана версия. “

Изявлението от четвъртък пристигна, откакто Гугъл в сряда наподобява отбрани инструмента ден по-рано, като сподели в обява на X, „ Генерирането на AI изображения на Gemini в действителност генерира необятен кръг от хора. И това като цяло е нещо положително, тъй като хората по света го употребяват.

„ Но тук липсва задачата “, признава компанията.

В други проби, извършени от CNN в сряда, подкана за искане на изображение на „ бял ​​фермер на юг “ докара до отговор от Gemini, който споделяше: „ Разбира се, ето някои изображения, включващи фотоси на фермери на юг, представящи разнообразни полове и етноси “. Въпреки това, обособена поръчка за „ ирландска баба в механа в Дъблин “ докара до изображения на радостни, възрастни бели дами, които държат бира и соден самун.

Джак Кравчик, водещ продуктов шеф на Гугъл за Gemini, сподели в обява в сряда, че Гугъл съзнателно проектира „ благоприятни условия за генериране на изображения, с цел да отразява нашата световна потребителска база “ и че компанията „ ще продължи да прави това за отворени подкани (изображения на човек разходките с куче са универсални!). “

Инцидентът също по този начин е още една крах за Гугъл, защото се надпреварва да поеме OpenAI и други играчи в конкурентното генеративно AI пространство.

През февруари, малко след представянето на своя генеративен AI инструмент – тогава наименуван Bard и от този момент преименуван на Gemini – цената на акциите на Гугъл спадна за малко, откакто демонстрационен видеоклип на инструмента сподели, че дава в действителност неакуратен отговор на въпрос за галактическия телескоп James Webb.